Sona Technical Report
SONA：Yandex Music的单一生成式推荐模型
🧭 生成式推荐 · Semantic ID · 单模型统一排序 ★ 深度解读
Yandex
用一个生成式模型统一召回与排序，通过教师蒸馏和Semantic ID在音乐推荐中实现显著在线收益。
📌 工作参考价值（4 点）
- 单模型统一生成与排序：借鉴共享编码器 + 自回归解码 + 交叉注意力打分模块的架构，可简化电商/广告的多阶段级联系统，减少维护成本。
- Semantic ID 与 trie 约束 beam search：用多模态 LLM + 协同信息精炼 + 残差量化的方式构建物品语义码，适应大动态物品库，适合迁移到有内容特征的商品推荐。
- 无手工特征排序教师蒸馏：Teacher Ranker 仅用日志事件预训练（NIP）+ 多目标微调，可替代依赖大量特征的排序模型；通过稠密蒸馏将长期历史知识注入轻量学生，对特征工程受限的场景有参考价值。
- 低延迟在线训练循环：会话聚合、推断日志对齐、10分钟级模型推送，实现从事件到模型更新的 45 分钟中位延迟，可作为实时推荐系统在线学习的工程范本。